Từ ngày 16 tháng 2 năm 1987[13] đến 10 tháng 8 năm 1991, ông là Bộ trưởng Bộ Quốc phòng, Phó Bí thư thứ nhất Đảng ủy Quân sự Trung ương. Khi Bộ Chính trị họp đã thông qua kế hoạch điều chỉnh chiến lược và giảm quân số quân đội của ông, từ 1,5 triệu quân thường trực xuống còn 45 vạn (từ 9 quân đoàn giảm xuống còn 4 quân đoàn), gánh nặng ngân sách quốc phòng được giải tỏa[14].

Cuối tháng 2 năm 1987, trong cuộc họp Bộ Chính trị ở Nhà con rồng - Sở Chỉ huy của Bộ Quốc phòng, Đại tướng Lê Đức Anh, Bộ trưởng Bộ Quốc phòng đã đề xuất thực hiện "phá thế bao vây cấm vận của Mỹ và bình thường hóa quan hệ với Trung Quốc, tìm cách gia nhập ASEAN".[12]

Năm 1988, trong chuyến thị sát tại quần đảo Trường Sa, Lê Đức Anh trên cương vị Bộ trưởng Quốc phòng đã dự lễ kỷ niệm 33 năm ngày truyền thống của Quân chủng Hải quân Việt Nam (7/5/1955–7/5/1988). Chuyến thăm diễn ra ngay sau khi Trung Quốc nổ súng vào tàu vận tải của Việt Nam tại đảo Gạc Ma rạng sáng 14/3 làm 64 chiến sĩ trên tàu HQ-604 hy sinh. Ông phát biểu: "...chúng ta xin thề trước hương hồn của tổ tiên ta, trước hương hồn của cán bộ, chiến sĩ đã hy sinh vì Tổ quốc, xin hứa với đồng bào cả nước, xin nhắn nhủ với các thế hệ mai sau "Quyết tâm bảo vệ bằng được Tổ quốc thân yêu của chúng ta, bảo vệ bằng được quần đảo Trường Sa – một phần lãnh thổ và lãnh hải thiêng liêng của Tổ quốc thân yêu của chúng ta"[15].

Ông là một trong số ít những cán bộ quân đội đã trải qua cả bốn chiến trường trong suốt 40 năm: Tham gia 9 năm kháng chiến chống Pháp, tham gia chỉ huy tại chiến trường miền Nam chống Mỹ trong 11 năm (1964 – 1975), chỉ huy chiến trường Campuchia trong 7 năm (1979 – 1986), tham gia chỉ huy chiến trường biên giới phía Bắc trong 3 năm (1986 – 1989).